明朝开国以后，便在苏北设立淮安府，下辖山阳（今淮安市）、清河（今淮阴县及清河区、清浦区部分）、安东（今涟水）、盐城、桃源（今泗阳）、沐阳、海州（今连云港市）、赣榆（今邳州市）、宿迁、瞧宁十一州县，治山阳县。洪武元年（1368），知府范中以淮安路屯田打捕总管府为府衙，加以修葺，便在里面办公。

　　淮安是兵家重地，朱元璋在这里设了四个卫（淮安、大河、邳州、宽河，后二卫后迁别处），卫指挥使多侯伯摄之。淮安卫指挥使华云龙因功封为淮安侯，权势尤重。他看中了淮安府衙，因这里雄踞一城之中，有类皇城大内格局。淮安府当然拧不过这位侯爷，只好搬家大吉了。洪武七年（1374）华云龙以擅用元宫中禁物，被皇上将他从北平召回，结果死在半道上。便府衙却一直为淮安卫占据着。

　　洪武三年（1370），新任淮安知府姚斌在城中选址，结果选中了上坂街北边的五通庙和元沂、郯万户府，便加以修建改造，作为淮安府的新府衙，一直沿用到清末。

　　据史料记载，淮安府署大的维修有如下一些：

　　成化三年（1467），“知府扬昶彻而新之，祭酒周洪谟为记”。

　　正德五年（1510），正堂及经历司毁于火，照磨所倒塌，只好用“布席”围起来临时使用。这次维修时，邑人潘埙曾作《重修淮安知府记》。据记，大堂即创于洪武三年。正德五年被火毁后，知府华琏决定修复而未果。以后继任知府刘祥、罗循均因年荒兵乱而未能修建。正德八年（1513），薛继任，他“治人如已，治官如家”、“三议五请，上下既协”，于正德十年（1515）正月开工，四月即落成。修复了正堂和经历、照磨二厅，“台廉甬道易砖以石，门屋榜廊撤旧换新”。当时正堂上置匾两块，一曰“公正”，另一曰“镇淮”。

　　康熙十八年（1679），“各属捐资重建”。

　　乾隆五年（1740），知府胡振组“修内署”。

　　咸丰中，大堂又毁于火，咸丰十年（1860）修复。当时的漕运总督王梦龄兼任河道总督，他于道光年间做过一任淮安知府，修复府衙是他的急务之一。主事者是淮安府通判署理知府事的陶金诒。所用木料是从河下盐商程梦鼎（1862—？）住宅中进厅堂上拆来的。程氏宅因其孙政扬犯事籍入官，嘉庆间改为盐务淮北批验大使公署，后因纳盐改票，程氏族人请以此宅归公助修府城而未果。咸丰元年（1851）又请划归普济堂，因与捻军打仗而又未办成。咸丰十年修府衙，程式氏又请撤料助工，于是类似扬州何园那样的潭潭巨宅，立即夷为瓦砾场，而府堂始成。

　　经过历次维修，淮安府衙的格局基本固定下来了，占地总面积近2万平方米，三百余间房室。内部房屋历代毁建和用途多有变化，现根据清末情况简述如下。大门面南临街，前有七丈长的照壁，东西有牌楼，极为闳壮。西牌楼在府市口，东牌楼在报恩寺（今电影院）前，各四柱，金丝楠木制成。石础径可六尺，柱高二丈余，矗立云表。东牌楼曰“长淮重镇”，西牌楼曰“表海名邦”。毁于清末。整个建筑九分中东西三路，中路为正房，除大门、二门外，有大堂、二堂两进。再往内为官宅之门，入门为上房，为知府等人住宅。上房后有楼，亦曰镇淮楼。大堂为知府处理公务之处，东西长七间26米，南北宽五间，深长18.5米，脊高10米，高大雄伟，气势恢宏。堂前大院，东西为六科办公用房：东为吏科、礼科、户科、，西为兵科、刑科、工科。

　　大堂北为二堂，两堂之间有一座三槐台（一说三槐台在府衙内别外），建自明朝嘉靖年间，用以镇压淮河水患。据记载，该台前后各有两根铜柱，后又柱间还有一铁釜。柱高一丈零五寸许，围三尺许。柱上均有铭文：

　　前东柱云:神柱既立，妖魑遁藏。六龙骧首，以迎太阳。日鉴在兹，赫然灵光。驾彼鲸波，桂景扶桑。

　　前西柱云:阴阳之灵,金精之英.立于西点,自天保定.与淮俱安,为淮作镇.神明卫之,上帝有命。

　　后东柱云:肃将明威,建兹严城.爰立标准,以树风声.狂涛既息,东海永清.百灵来朝,视兹国桢。

　　后西柱云:桓桓铜柱,植于金城.为南山之寿,不骞不崩,万世永赖,地平天成.皇胆嘉庚申秋八月。

　　嘉靖庚申为嘉靖三十九年,即1560年,此柱建立距今已有436年,惜已不复存在了。

　　二堂为知府处理日常事务之所,东西5间,长22米,南北阔3间,长11米,脊高8.5米。二堂为上房官宅，即知府等生活起居之处，类似故宫前三殿、后三殿之意，也是封建官衙的通常格局。上房后有一座楼，名曰镇淮，与铜柱一样，亦有镇压水患之含义。

　　西路为捕厅署，亦有大门、二门、大堂、二堂、上房几进。东路为迎宾、游之所。从官厅进入，就可见到藤花厅。厅东有一四合大院，为寅宾馆。北边正堂名“宝翰堂”，堂之西壁，嵌明摹勒的《娑罗树碑》一通。《娑罗树碑》为唐代大书法家李邕所书，原在淮阴县署，后已亡佚。明隆庆间，淮安知府陈文烛从文学家吴承恩家中得到旧拓一本，沐阳吴从道（亦淮安书法家，世居淮安城内）定为原刻真迹，遂摹勒上石，陈文烛为之作跋，并筑宝翰堂储之。民国初年，《娑罗树碑》移置府学，今不知下落。但明清以来，文人雅士歌咏的诗文俱有典籍。

　　藤花厅后为厨房，厨房工为四桂堂，当为馔堂。

　　此外，据地方史料记载，尚有志清堂，在府治后，为宋楚州守臣孙虎臣书额；筹边堂，在府治内，亦宋时建，据说当年“轮奂鲜明，甲于邻郡”。

　　府衙内后部，过去有一园，原名“偷乐园”。知府陈文烛《淮上诗》中有《三月三日 偷乐园》，其序云：“园在公衙后，有亭池、菜畦、修禊之辰，命儿子均圭约其师费以方饮焉。因读丽水终年公壁间碑：‘水亦忧，旱亦忧，太守之乐偷矣’”。张公名敦仁，嘉靖二十九年任淮安知府。他作过一篇《偷乐园记》，记中说：“堂之北有署，署之内有亭，亭有池，池之上有桥，亭之左右有桧、有槐”。“偷乐”之名即他所取，并立匾额于其中，其《偷乐园记》亦刻石其间。天启年间，淮安知府宋祖舜认为“偷”字不雅驯，改为“余乐园”。现在此园和碑记均不复存在了。上坂街一酒楼却因袭了这一园名。

　　淮安府衙在江苏省唯一保存较为完好的府衙，是淮阴市级文物保护单位。现址为淮安机械配件厂房，所存大堂、二堂及中路一些房屋，亟待维修。